Мнение: Снимките на Taylor Swift AI предлагат ужасяващо предупреждение
Бележка на редактора: Лори Сегал е дългогодишен технологичен журналист и основател на развлекателна компания, която произвежда документи, филми и цифрово съдържание, фокусирано върху пресечната точка на технологиите и човечеството. Тя е автор на ": My Adventures with Tech's Titans and Misfits." Преди това тя е била старши технологичен кореспондент на CNN. Мненията, изразени в този коментар, са нейни собствени. Прочетете повече в CNN.
Генерирани от изкуствен интелект снимки със сексуален характер на поп суперзвездата Тейлър Суифт заляха интернет и няма нужда да се успокояваме.
Суифт може да е една от най-известните жени в света, но тя представлява всяка жена и всяко момиче, когато става въпрос за това какво е заложено на карта в бъдещето на изкуствения интелект и съгласието.
Бил съм в окопите, отразявайки въздействието на технологиите, от близо 15 години, и вярвам, че сексуално явните дълбоки фалшификати са една от най-значимите заплахи, пред които сме изправени с напредъка в ИИ. С разпространението на инструменти, генерирани от AI, и тенденцията на Силиконовата долина да се надпреварва за иновации, ние навлизаме във фаза на технологиите, които ни се струват познати – само че сега залозите са още по-високи.
Намираме се в епоха, в която не само данните ни са за грабване, но и най-интимните ни качества: гласовете ни, лицата ни, телата ни вече могат да бъдат имитирани от AI. Казано просто: Нашата човечност е на един клик разстояние от това да бъде използвана срещу нас.
И ако може да се случи на Суифт, може да се случи и на вас. Най-голямата грешка, която можем да направим, е да вярваме, че този вид вреда е запазена за публични личности. Сега виждаме демократизация на приложенията за генериране на изображения, позволяващи този тип поведение. Твоята влюбеност отхвърли ли те? Има приложение за това. Сега можете да я съблечете дигитално или да създадете свой собствен явен deepfake с нейното участие.
Проблемът само ще се влоши, докато преминаваме към разширени и виртуални светове. Представете си завладяваща среда, в която презрян бивш кани другите да гледат заедно сексуално явен дълбок фалшив видеоклип на момичето, което го е отхвърлило. По-рано този месец беше съобщено, че британската полиция разследва случая на 16-годишен младеж, който твърди, че е бил изнасилен във виртуалния свят от множество нападатели.
Наскоро разговарях с професора от университета "Джордж Вашингтон" д-р Мери Ан Франкс, която е специалист по граждански права, технологии и свобода на словото. Тя имаше смразяващо предупреждение: тези типове приложения и AI инструменти могат да доведат до ново поколение млади мъже с манталитет „моето желание е командата на AI“. Ако не сме внимателни, не само ще създадем ново поколение жертви, но и ново поколение насилници.
„Току-що създадохме всички тези инструменти – объркани, негодуващи, ядосани млади мъже просто [ги] използват, вместо да се опитват да разберат какво означава да се справяш по здравословен начин с отхвърлянето“, каза Франкс.
Използването на напредъка в технологиите за унижаване на жените не е нещо ново. През 2015 г. създадох сериал в CNN, наречен „Порно отмъщение: Кибервойната срещу жените“. По това време порнографията без съгласие - където презрян бивш или лош актьор публикува разголени снимки на жени в уебсайтове, посветени на засрамването им - беше широко разпространена. Както днес, законите тепърва трябваше да наваксват и технологичните компании все още не правеха промени, за да защитят жертвите.
По време на това разследване никога няма да забравя да гледам уебсайтове, хоствани в тъмната мрежа, които включват порнография без съгласие на тийнейджърки. Изследовател по сигурността, специализиран в онлайн злоупотреби (и проследяване на злоупотреби), ми показа дълбочината на проблема, като ме преведе през форуми и изображения, които никога няма да пропусна. На един сайт извършителите са компрометирали уеб камерите на тийнейджъри и са принудили млади момичета да извършват сексуални действия със заплаха: Ако не се съобразите, ще изпратим личните ви изображения, които сме записали, на всички ваши съученици.
Бързо напред до 2024 г. Представете си, че вашият тийнейджър получава сексуално явен видеоклип на себе си в DM. Те никога не са записвали видео, но поради напредъка в технологията deepfake е невъзможно да се различи дали е истинско или фалшиво. В свят, в който AI прави измислицата толкова правдоподобна, истината и нашето възприятие за истината не са далеч едно от друго. Чувството на срам, загуба на контрол и безпомощност не се променя, защото изображението или видеото технически не са „истински“.
Deepfeke кошмарът на Суифт е само върхът на айсберга, подчертаващ екзистенциалната заплаха, пред която са изправени жените и момичетата. Въпреки че X може да е премахнал вирусните публикации (след като са били гледани десетки милиони пъти), все още има редица алтернативни сайтове, посветени на този тип експлоатационно съдържание. Един конкретен сайт, събиращ милиони гледания на месец, включва страници със сексуално явни дълбоки фалшиви видеоклипове, посветени на Суифт и други знаменитости, които не са се съгласили подобието им да бъде използвано за порнографски цели.
Джинът е трудно да се върне обратно в бутилката, а лекарството идва с цена. В събота търсенията на Swift бяха блокирани на X, като компанията каза на CNN, че този ход е временен, за да се „даде приоритет на безопасността“.
За да защити една от най-известните жени на планетата, X временно трябваше да я направи невидима. Въпреки че това е временен ход, посланието има трайно въздействие: ако една от най-известните жени трябва да изчезне онлайн, за да бъде в безопасност, какво означава това за останалите от нас?
Мислих много за това какво всъщност би преместило иглата.
От гледна точка на политиката няколко държави имат закони срещу създаването или споделянето на тези типове дълбоки фалшификати с явен сексуален характер. Всички тези закони се различават по обхват - така че когато някой може да повдигне обвинения, има значение. Ако, например, Суифт е подала в Ню Йорк като жител на щата - законът на Ню Йорк изисква жертвата на този тип злоупотреба да докаже намерение да причини вреда, все по-трудно постижение за генерирани от AI сексуално явни изображения, каза Франкс.
„Намерението за нараняване е много ограничително изискване, тъй като, както при другите форми на сексуално насилие, основано на изображения, има много други мотиви [включително] сексуално задоволяване, печелене на пари, придобиване на известност, постигане на социален статус“, каза Франкс . „Статутите, които изискват намерение за причиняване на вреда, дават свободен пропуск на всички тези извършители.“
За да повдигне наказателни обвинения, Swift ще трябва да проследи извършителя(ите) – което е както скъпо, така и трудно за изпълнение, като същевременно рискува допълнително излагане. Това показва реалността, че дори държави със съществуващи закони имат непосилно сложен път към съдебното преследване.
„Някой като Тейлър Суифт има адвокати и някой, който може да помогне за това“, каза Франкс. „Вашата средна жертва няма да получи никаква помощ.“
Вземете нашия безплатен седмичен бюлетин
Франкс казва, че идеалният федерален законопроект ще включва наказателни и граждански наказания, цитирайки двупартийния Закон за предотвратяване на дълбоки фалшификации на интимни изображения, който би забранил наказателно разкриването на сексуално явни цифрови изображения без съгласие и би осигурил гражданска защита за жертвите. Тъй като законите, забраняващи дълбоките фалшификати, са трудни за прилагане, законодателите във Върмонт наскоро въведоха законодателство, което ще държи разработчиците на генеративни AI продукти отговорни за вредите, които причиняват, които са разумно предвидими. Това са първи стъпки, но законодателството се изпреварва от скоростта, с която се развива технологията.
Не става
